Sample records for kurtosis
from WorldWideScience.org

Sample records 1 - 15 shown.



1

Definição do tamanho amostral usando simulação Monte Carlo para o teste de normalidade baseado em assimetria e curtose: I. Abordagem univariada/ Definition of the sample size by using Monte Carlo simulation for the normality test based on skewness and kurtosis coefficients: I. Univariate approach

Santos, Andréa Cristiane dos; Ferreira, Daniel Furtado
2003-04-01

Resumo em português Uma forma alternativa para verificar suposição de normalidade dos dados, refere-se à aplicação de testes baseados nos coeficiente de assimetria e curtose. Realizou-se este trabalho com o objetivo de determinar um tamanho amostral ótimo para as estatísticas univariadas (Z1 e Z2) e multivariadas (K1 e K2) que, neste caso, foram consideradas como univariadas, com base em simulação. As estatísticas Z1 e K1 estão associados às medidas de simetria e K2 e K2 às de c (mais) urtose. Foram geradas diferentes funções de densidade de probabilidade univariadas, via método de Monte Carlo, com a finalidade de avaliar o erro tipo I e o poder do teste. As simulações foram feitas adotando-se os níveis de probabilidade de 5% e 1%. O critério de avaliação, no caso univariado, foi o da comparação das taxas de poder estimadas com o valor das taxas de poder empírico obtidas pelo teste de Shapiro & Wilk (1965). Pelos resultados, verificou-se que as estatísticas Z1 e Z2 possuem aproximação assintótica normal para n>25, com α =5% e podem ser recomendadas para uso rotineiro no caso univariado para testar a hipótese de normalidade dos dados; as estatísticas K1 e K2 possuem aproximações assintóticas melhores que Z1e Z2 para um menor valor do nível nominal de significância, sendo recomendadas para n>25 e n>100, respectivamente, garantindo-se o controle da taxa de erro tipo I e um alto poder. No caso de distribuições com simetria próxima de zero e não-normais, as estatísticas baseadas em desvios de simetria apresentam maior poder do que a estatística W de Shapiro-Wilk. Finalmente, pode-se concluir que a estatística de assimetria, em geral, é mais poderosa do que à de curtose, mas os testes da hipótese nula de normalidade devem considerar tanto os testes de desvios de simetria como os de curtose conjuntamente. Resumo em inglês An alternative form to verify assumption of data normality is concerned with the application of the tests based on skewness and kurtosis coefficients. The objective of this work was to determine an optimum sample size for the univariate (Z1 and Z2) and multivariate (K1 and K2) statistics on basis of simulation. The Z1 and Z2 statistics are related to the skewness and the Z1 and Z2 are related to the kurtosis. Different univariate probability density functions were generat (mais) ed, by Monte Carlo simulation method with a view to calculating the type I error rates and the power of the test. The simulations were done by adopting the probability level of 5% and 1%. The evaluation criterion in the univariate case was that of the comparison of the rates obtained through the value of the rates of empirical power obtained by Shapiro & Wilk (1965) test. By considering the univariate case, it was found that the Z1e Z2 statistics possess normal asymptotic approximation for n>25 and α=5% can be recommended for routine use in the univariate case. The K1 and K2 statistics possess approximation asymptotic better than Z1 and Z2 for a lower value of the nominal value of significance, recommended for n>25 and n>100, respectively, warranting the compromise with the control of the type I error rate and elevated power. In the case of symmetry distributions with efficient of skewness close to zero and non-normal, the statistics based on skewness deviations present higher power than Shapiro - Wilk's W statistics. It is concluded that the skewness statistic in general, is more powerful than that of kurtosis, but the tests of the null hypothesis of normality must take into account both the tests of skewness deviations and those of kurtosis jointly.

Scientific Electronic Library Online (Portuguese)

2

Definição do tamanho amostral usando simulação Monte Carlo para o teste de normalidade baseado em assimetria e curtose. II.: abordagem multivariada/ Sample size definition using Monte Carlo simulation for the normality test based on skewness and kurtosis. II.: multivariate approach

Santos, Andréa Cristiane dos; Ferreira, Daniel Furtado
2003-02-01

Resumo em português Realizou-se este trabalho com o objetivo de determinar um tamanho amostral ótimo para as estatísticas univariadas de assimetria e curtose (z1 e z2) que, neste caso, foram adaptadas para o caso multivariado, e as estatísticas multivariadas de assimetria e curtose (k1 e k2) com base em simulação. Foram geradas diferentes funções densidade probabilidade multivariadas via método de Monte Carlo para avaliar a taxa de erro tipo I e o poder do teste para os valores nomin (mais) ais de 5% e 1%. Foram avaliadas as situações com p=2, 3, 4 e 5 variáveis, com diferentes estruturas de correlação. Para o caso multivariado, as diferentes estruturas de correlação não afetaram o poder e a taxa de erro tipo I dos testes; a estatística k2 é adequada para uso a partir de n> 50 para valores nominais de significância de 5% ou 1%; a estatística k2 é assintoticamente adequada para os testes de desvios de curtose para n> 100, independentemente dos valores nominais da significância. Pode-se concluir que as estatísticas de assimetria, em geral, são mais poderosas do que as de curtose, mas os testes da hipótese nula de normalidade multivariada devem considerar tanto os testes de desvios de assimetria como os de curtose conjuntamente, como sugerido no caso univariado. Resumo em inglês This work aimed to determine optimum sample size for the univariate skewness and kurtosis statistics (z1 and z2) adapted to multivariate situation and for the multivariate skewness and kurtosis statistics (k1 and k2) statistics based on simulation. Different probability density functions, univariate and multivariate, were generated by Monte Carlo simulation method to evaluate the type I error rates and the power of the tests. The simulations were done adopting the nominal (mais) significance level of 5% and 1%. Situations with p=2, 3, 4 and 5 variables with different correlation structures were evaluated in the case of multivariate distributions. The results showed that k1 statistics is adequate for n> 50, at nominal levels of significance of 5 or 1%; different correlation structured do not affect the power and the type I error rates, the k2 statistics is asymptotically appropriate for kurtosis deviation tests for n> 100, independently of the nominal values of the significance. The skewness statistics, in general, were shown to be more powerful than those of kurtosis, however, the null hypothesis tests of normality must consider both tests jointly, as suggested in the univariate case.

Scientific Electronic Library Online (Portuguese)

3

Efeito da falta de normalidade em testes de homogeneidade das variâncias/ Effect of non-normality on testes of equality of variances

Conagin, Armando; Nagai, Violeta; Igue, Toshio; Ambrósio
1993-01-01

Resumo em português Em experimentos de campo, é freqüente o aparecimento de tratamentos com variâncias heterogêneas, decorrente, muitas vezes, do tipo dos tratamentos que estão sendo estudados. Os dados desses ensaios são usualmente submetidos à análise da variância, cuja aplicação correta exige que as observações tenham uma variância comum. A falta de homogeneidade pode surgir, também, segundo alguns autores, quando, os erros experimentais têm distribuição assimétrica. A (mais) falta de normalidade dos erros tem sido considerada como um fator que pode distorcer os resultados de testes empregados para verificar a hipótese de igualdade de médias ou das variâncias. Para avaliar a influência da falta de normalidade sobre os testes de Bartlett, Cochran e Hartley (Fmáx), com e sem correção para blocos, e os de Han e de Shukla, também indicados para verificar a hipótese de nulidade das variâncias homocedásticas, foram simulados 6.000 experimentos em blocos ao acaso. Na simulação, foram considerados dois níveis de precisão experimental, três magnitudes de efeitos de blocos e cinco níveis de assimetria e curtose, incluindo assimetria zero e curtose três. Em todos os testes, à medida que se aumentou a assimetria positiva e a curtose, cresceu a porcentagem de rejeição da hipótese de variâncias iguais, sendo esse aumento maior no teste de Shukla e nos de Bartlett, Cochran e Fmáx aplicados sem a correção para blocos, principalmente quando o efeito de blocos foi pequeno. As porcentagens de rejeição, pelo teste de Han, nos diferentes níveis de assimetria e curtose, não diferiram das obtidas pelo Fmáx, com correção, e estiveram próximos dos resultados dos testes de Bartlett e Cochran, feitos também com correção; nestes, as porcentagens de rejeição da hipótese de variâncias iguais foram superiores à esperada, de 5%, quando os coeficientes de assimetria e de curtose foram maiores que 1,11 e 4,04 respectivamente. Quando o efeito de blocos foi pequeno, os testes sem correção superestimaram as porcentagens de rejeição da hipótese de nulidade de variâncias iguais. Resumo em inglês The mean and standard deviation of distributions with five different levels of assimetry and kurtosis were used to simulate 6,000 experiments, in a randomized complete block design with five treatments and six replications, considering two levels of precision and three levels of block effects. The tests of homogeneity of variance proposed by Han and Shukla, for randomized block design, and those of Bartlett, Cochran and Hartley, developed for one-way classification were a (mais) pplied to the simulated data. The last three tests were also used after correcting for block effects. The amount of rejection of the null hypothesis increased with the levels of assimetry and kurtosis in all tests. The percentage of rejection of the hypothesis of homogeneity of variances using Shukla's test and those of Bartlett, Cochran and Hartley, without block correction, were strongly affected by non-normality mainly when the block effect was small. The rejection of the null hypothesis when used Han's test or those of Bartlett, Cochran and Hartley tests, adjusted for block effects, were larger than 5% when the coefficients of assimetry and kurtosis were higher than 1.11 and 4.04 respectively.

Scientific Electronic Library Online (Portuguese)

4

Desempenho de testes de normalidade multivariados avaliado por simulação Monte Carlo/ Monte Carlo evaluation of the performance of multivariate normality tests

Cantelmo, Narjara Fonseca; Ferreira, Daniel Furtado
2007-12-01

Resumo em português Neste trabalho, objetivou-se avaliar a performance do teste multivariado de normalidade de Shapiro-Wilk implementado no R comparando o seu desempenho com os testes de assimetria e curtose de Mardia (1970, 1974, 1975) utilizando simulação Monte Carlo. Foram mensuradas e comparadas as taxas de erro tipo I e poderes dos testes. Pode-se concluir que o teste de Shapiro-Wilk multivariado do programa R, função mshapiro.test do pacote mvnormtest, tem fraco desempenho (liberal) e não é recomendado para uso rotineiro. Resumo em inglês This work aimed to evaluate the performance of the multivariate normality test of Shapiro-Wilk implemented in R in the library mvnormtest and to compare it with the asymmetry and kurtosis normality test proposed by Mardia (1970, 1974, 1975) using Monte Carlo simulation. The multivariate normality test of Shapiro-Wilk is not recommended for regular use.

Scientific Electronic Library Online (Portuguese)

5

Técnicas de análises exploratórias em dados de cultivares de alfafa/ Exploratory data analysis techniques in cultivars of alfalfa

Freitas, Alfredo Ribeiro de; Barioni Júnior, Waldomiro; Ferreira, Reinaldo de Paula; Cruz, Cosme Damião; Moreira, Adônis; Vilela, Duarte
2008-09-01

Resumo em português Objetivou-se utilizar técnicas de análises exploratórias em dados da produção de matéria seca (PMS) de 16 cortes de 92 cultivares de alfafa (Medicago sativa L.). A produção de matéria seca variou entre e dentro de cortes, uma vez que os coeficientes de variação oscilaram de 17,7% (corte 2) a 51,7% (corte 9). De modo geral, os dados de produção obtidos nos 16 cortes não se ajustaram à distribuição normal. Os coeficientes de simetria foram negativos nos cor (mais) tes 1 a 4, 10 a 12, 14 a 16, enquanto os coeficientes de curtose foram negativos nos cortes 1, 9, 10, 12 e 16. As estimativas robustas do desvio-padrão obtidas por quatro métodos diferiram do desvio-padrão clássico (S) em todos os cortes, indicando que a estimativa S deve ser substituída por estimadores robustos. Resumo em inglês The objective was to utilize exploratory data analysis techniques for evaluating dry matter production (DMP) obtained from 16 cuts of 92 accessions of alfalfa (Medicago sativa L.). A significant effect on DMP was observed both within and among cuts; the coefficient of variation ranged from 17.7% (cut 2) to 51.7% (cut 9). The DMP data obtained from 16 cuts of 92 accessions of alfalfa did not fit to the normal distribution. The skewness coefficients were negative for dry ma (mais) tter production data in cuts 1 to 4, 10 to 12, and 14 to 16, while kurtosis coefficients were negative in cuts 1, 9, 10, 12, and 16. Robust estimates of standard deviation obtained from four different methods were different from the traditional standard (S) in all cuts, showing that estimate S should be replaced by these robust estimators in statistical analysis.

Scientific Electronic Library Online (Portuguese)

6

Diagnóstico exploratório na análise de dados entomológicos:: efeito do diflubenzurom no consumo alimentar de Anticarsia gemmatalis (Hübner)/ Exploratory diagnosis in entomological data: effect of diflubenzurom on the food consumption of Anticarsia gemmatalis (Hübner)

Oliveira, Maria C. N.; Corrêa-Ferreira, Beatriz S.
1998-12-01

Resumo em português Comparou-se diferentes métodos de análise estatística utilizando-se os dados do efeito de diferentes doses do Diflubenzurom no consumo alimentar da lagarta-da-soja Anticarsia gemmatalis (Hübner). As estatísticas descritivas que melhor detectaram a ausência de normalidade foram a assimetria e curtose indicando necessidade da transformação. Com a análise dos dados originais não se observaram respostas significativas para os efeitos das doses de Diflubenzurom em re (mais) lação ao consumo foliar pela lagarta-da-soja e, com transformação detectou-se que houve decréscimo nesse consumo na maior dose (15 g i.a.) diferindo estatisticamente da dose 7,5g i.a. Observou-se que para um dia após a aplicação do Diflubenzurom, a análise com os dados originais para o consumo foliar apresentou um coeficiente de variação de 47,8 % e, com os dados transformados este coeficiente foi de 2,7 %. Resumo em inglês Different statistical methods of data analysis were performed on the effect of different dosages of Diflubenzurom in the consumption of velvetbean caterpillar, Anticarsia gemmatalis (Hübner). The best descriptives statistics to visualize the lack of normality were skewness and kurtosis suggesting the necessity of data transformation. When data without transformation were analyzed no statistical differences were observed among consumption of larvae maintained on leaves tr (mais) eated with Diflubenzurom. However, analysis of transformed data showed that larval feeding was lower on leaves treated with 15 g a.i. of Diflubenzurom, differing from 7.5 g a.i. treatment. It was observed a reduction coefficient of variation from 47.8 % to 2.7 % of foliar consumption one day after treatment, reducing the experimental variability.

Scientific Electronic Library Online (Portuguese)

7

Tamanho de amostra para estimação do coeficiente de correlação de Pearson entre caracteres de Crambe abyssinica/ Sample size to estimate the Pearson correlation coefficient among characters of Crambe abyssinica

Cargnelutti Filho, Alberto; Lopes, Sidinei José; Toebe, Marcos; Silveira, Tatiani Reis da; Schwantes, Ismael Albino
2011-03-01

Resumo em português É importante dimensionar adequadamente o tamanho de amostra, para estimação, com confiabilidade aceitável, do coeficiente de correlação linear de Pearson entre pares de caracteres. O objetivo deste experimento foi determinar o tamanho de amostra (número de plantas) para estimação do coeficiente de correlação linear de Pearson, entre 21 caracteres de crambe (Crambe abyssinica Hochst). Um experimento em campo foi conduzido no ano de 2008. Na colheita foram seleci (mais) onadas, aleatoriamente, 75 plantas, nas quais foram mensurados 21 caracteres. Foram calculadas medidas de tendência central, de variabilidade, de assimetria e de curtose, verificada a normalidade e investigada a linearidade entre os caracteres. Foi calculado o tamanho de amostra, para estimação do coeficiente de correlação de Pearson, para as amplitudes do intervalo de confiança de 95%, iguais a: 0,15; 0,20; 0,25; 0,30; 0,35 e 0,40, para cada um dos 210 pares de caracteres. Para os 210 pares de caracteres de crambe estudados, o tamanho de amostra, para estimação do coeficiente de correlação linear de Pearson, para a amplitude do intervalo de confiança de 95% igual a 0,15, oscilou entre 8 e 665 plantas. Resumo em inglês It is important to dimension correctly the sample size, to estimate the Pearson correlation coefficient among pairs of characters, with acceptable reliability. The aim of this research was to determine the sample size (number of plants) to estimate the Pearson correlation coefficient among 21 characters of crambe (Crambe abyssinica Hochst). An experiment was conducted in the year 2008. At harvest, 75 plants were selected randomly and measured 21 characters. The measures o (mais) f central tendency, variability, skewness and kurtosis, were done. Normality was verified and investigated the linearity among the characters. The sample size to estimate the Pearson correlation coefficient was calculated, for the amplitude of the confidence interval of 95%, equal to: 0.15; 0.20; 0.25; 0.30; 0.35 and 0.40, for each of 210 pairs of characters. For the 210 characters pairs of crambe, the sample size to estimate the Pearson correlation coefficient, to the amplitude of the confidence interval of 95% equal to 0.15, ranged from 8 to 665 plants.

Scientific Electronic Library Online (Portuguese)

8

Análise de eventos hidrológicos extremos, usando-se a distribuição GEV e momentos LH/ Analysis of extreme hydrological events using GEV distribution and LH moments

Queiroz, Manoel M. F. de; Chaudhry, Fazal H.
2006-06-01

Resumo em português A distribuição de probabilidade generalizada de valores extremos (GEV), tem facilitado muitas aplicações em hidrologia, utilizada na modelação de eventos extremos naturais. Estudos sobre o assunto mostram que estimadores de máxima verossimilhança dos parâmetros da GEV são instáveis em pequenas amostras, podendo fornecer valores absurdos do parâmetro de forma, quando então são recomendados estimadores de momentos LH, baseados na combinação linear de estatí (mais) sticas de altas ordens, introduzidas para caracterizar a parte mais alta da distribuição e os valores extremos dos dados; contudo, não se dispõe de programas computacionais para PC, que modelem eventos extremos via momentos LH. Objetivou-se, com este trabalho, apresentar a modelação de eventos hidrológicos extremos através da distribuição GEV, utilizando-se momentos LH para estimar seus parâmetros e o teste estatístico proposto por Wang (1998) para verificação da qualidade dos ajustes desenvolvidos no ambiente Matlab. Como resultados, são apresentados as estimativas dos parâmetros da GEV, os valores das taxas de momentos LH: coeficientes de variação, assimetria e curtose, e os valores do teste de qualidade de ajuste, em aplicações com dados de vazão de rios do Paraná. Resumo em inglês The generalized extreme-value (GEV) distribution has facilitated many applications in hydrology, used to model a wide variety of natural extreme events. Previous studies show that small-sample maximum-likelihood estimators parameters are unstable and demonstrates that absurd values of the GEV shape parameter can be generated. It is recommended that LH moments estimators, based on linear combinations of higher-order statistics, should be introduced for characterizing the u (mais) pper part of distributions and larger events in data. However, there have been no computer packages for PC that model extreme events by LH moments. The objective of this paper was to present the modeling of hydrological extreme events by GEV distribution, using LH moments to estimate its parameters and the goodness-of-fit test proposed by Wang (1998) to evaluate the goodness-of-fit, both developed in Matlab. The results are presented for the estimation of the parameters of the GEV, the values coefficient of variation, skewness, kurtosis and goodness-of-fit test values, and fitting extreme flow observed in Paraná Rivers by GEV distribution.

Scientific Electronic Library Online (Portuguese)

9

Variabilidade da água disponível de uma terra roxa estruturada latossólica/ Available soil-water variability of a "terra roxa estruturada latossólica" (rhodic kanhapludalf)

Moraes, S.O.; Libardi, P.L.
1993-12-01

Resumo em português A partir de 250 curvas de retenção da água no solo, elaboradas com amostras indeformadas coletadas de uma área de 6250 m² de uma Terra Roxa Estruturada Latossólica de Piracicaba,SP, foram calculados quatro conjuntos de valores de água disponível assumindo-se -1x10³, -6x10³, -1x10(4) e -3x10(4) Pa como possíveis valores de potencial mátrico correspondentes à capacidade de campo e -1,5x10³ Pa um possível valor correspondente ao ponto de murchamento permanente (mais) . Foram feitas medidas de posição (média), variabilidade (coeficiente de variação, assimetria e curtose) e numero necessário de amostras para estimar a média a um dado nível de probabilidade a fim de quantificar a variabilidade e a sensibilidade dos resultados em cada conjunto e entre conjuntos de valores de água disponível. A análise dos resultados mostrou que a variabilidade da água disponível, obtida à partir de dois valores de umidade da Curva de Retenção é muito maior que a variabilidade de cada valor individualmente. Ou seja, embora as variáveis envolvidas possam ser as mesmas, o grau de variabilidade (expresso, por exemplo, pelo coeficiente de variação) ou a sensibilidade das medidas (expressa pelo número necessário de amostras para estimar a média dentro de um determinado intervalo de confiança) pode ser bem distinto, indicando que nem sempre resultados de uma amostragem realizada com determinado objetivo poderá servir a outros, embora possam tratar-se de variáveis dependentes. Resumo em inglês From 250 soil-water retention curves of an area of 6250 m² of a "Terra Roxa Estruturada Latossólica" (Rhodic Kanhapludalf) located in Piracicaba,SP, four sets of available soil-water were calculated assuming field capacity values based on soil-water contents corresponding to -1x10³, -6x10³, -1x10(4) and -3x10(4) Pa of soil water matric potential; and permanent wilting point based on soil-water contents corresponding to -1,5x10(6) Pa. Aiming to quantify the variability (mais) and the sensibility of the results for each set and among sets of soil available water values, the following calculations were made: position measurement (mean), variability (coefficient of variation, assimetry and kurtosis) and the necessary number of samples to estimate the mean at a specific probability level. The analysis of the results has shown that the variability of available soil-water values is much greater than the variability of field capacity and of permanent wilting point values used in the calculation. That is, even though the envolved variables can be the same, the degree of variability (expressed by the necessary number of samples needed to estimate the mean within a choosen interval confidence) can be very distinct, indicating that the results of a sampling, carried out for one specific objective can not always be used for another objective, even being dependent variables.

Scientific Electronic Library Online (Portuguese)

10

Características sedimentares fluviais associadas ao grau de reservação da mata Ciliar - Rio Urumajó, Nordeste Paraense/ Fluvial sedimentology associated with the degree of preservation of the riparian vegetation, Urumajó River, PA / Brazil

Brito, Roney Nonato Reis de; Asp, Nils Edvin; Beasley, Colin Robert; Santos, Helane Súzia Silva dos
2009-03-01

Resumo em português Os rios são os agentes mais importantes no transporte dos sedimentos para as áreas mais baixas dos continentes e para o mar. Além dos efeitos diretos do clima local, a cobertura vegetal atua no controle da descarga e no suprimento de sedimentos. Sendo assim, o presente trabalho enfoca o padrão de distribuição granulométrica do rio Urumajó (nordeste paraense) em relação ao estado de preservação da mata ciliar. Cinco estações (A-E) foram estabelecidas de forma (mais) a registrar um transecto da nascente à foz do rio. Nessas estações, procedeu-se com a caracterização da mata ciliar, bem como do seu grau de preservação. Além disto, elaborou-se um perfil transversal ao canal para cada estação, com coleta de cinco amostras de sedimentos em cada perfil. Estes foram submetidos à análise granulométrica, que resultou na obtenção de valores da média, mediana, seleção, assimetria e curtose. Com os resultados foi possível reconhecer as características sedimentares normais do rio, onde areia média é a principal classe granulométrica transportada. Foram observadas nas estações A e C a clara tendência das amostras serem moderadamente bem selecionadas e aproximadamente simétricas, com dominância absoluta de areia média, o que está diretamente relacionado ao seu bom estado de preservação. Significativas variações granulométricas nas estações B, D e E foram associadas com o processo erosivo das margens do rio, conseqüência da degradação da mata ciliar. Além disso, foi constatada a influência das correntes de maré na sedimentologia da estação E, subsidiando também a delimitação do ambiente estuarino que se encontra associado ao canal fluvial. Resumo em inglês Rivers are the main ways of sediment transport from inland to the coastal zone and oceans. Despite direct influence of climate, the vegetation coverage plays a central role in liquid and solid fluvial discharge. In this context, the present work aimed to study the fluvial sedimentology of the Urumajó River (Pará, Brazil) in relation to the preservation state of riparian vegetation. Sediment samples were collected at five sites (A to E), including a five-sample transvers (mais) al profile at each site. The sites were distributed from the source to the estuarine area. The characteristics and preservation state of the riparian vegetation were analyzed at each site as well. The collected sediments were submitted to grain size analysis, where mean grain size, median, asymmetry, selection and kurtosis were obtained. The results made it possible to recognize the regular characteristics (sites A and C), which included median sand as the main sediment class and well-sorted and approximate symmetric grain size distribution, directly related to the well-preserved riparian vegetation at sites A and C. On the other hand, sites B, D and E showed substantial differences in relation to the regular pattern. This fact could be associated to the vegetation degradation at those sites, resulting in margin erosion. Furthermore, at site E, reflexes of tide influence on the sediment characteristics could be observed, subsidizing the estuary delimitation.

Scientific Electronic Library Online (Portuguese)

11

Análise comparativa da intensidade de fluorescência de CD10 e de CD19 em blastos leucêmicos e hematogônias: A comparative analysis/ CD10 and CD19 fluorescence intensity of leukemic blasts and hematogones

Matos, Jesamar C.; Jorge, Fátima M. G.; Queiroz, José A. N.
2007-06-01

Resumo em português Hematogônias são células jovens normais da medula óssea responsáveis pela produção das células de linhagem B do sistema imunológico. A leucemia linfoblástica aguda de células precursoras B representa um dos tipos de transformação neoplásica destes precursores hematopoéticos. Devido à alta similaridade citológica das hematogônias e dos blastos leucêmicos, é possível haver erros de interpretação em suas análises, sendo importante, em algumas circunst (mais) âncias, o uso de técnicas complementares diagnósticas para diferenciá-las. Os antígenos CD10 e CD19 estão expressos em ambos os tipos celulares, e uma extensão no uso de outros marcadores é necessária para caracterização da natureza benigna ou maligna das células. Foram testadas possíveis diferenças nas curvas de expressão de CD10 e CD19 dos dois tipos celulares. Para o grupo em estudo, foram colhidas 39 amostras de pacientes portadores de LLA de linhagem B por ocasião do diagnóstico. A idade variou de 0 a 14 anos com uma média de 6,6 anos. Como grupo controle, foram também colhidas 36 amostras de medula óssea de pacientes pediátricos não portadores de neoplasia. A idade variou de 0 a 15 anos com uma média de 5 anos. Nos dois grupos, as diferenças nos gráficos das distribuições de intensidade de fluorescência (IF) de CD10 e CD19 foram analisadas quanto aos parâmetros: Média (ME), desvios-padrão (DP), coeficientes de variação (CV), coeficientes de inclinação (CI) e coeficiente de curtose (CC). Os valores individuais destes parâmetros de cada amostra foram comparados com os intervalos gerados pelo grupo controle: ME±2DP; ME±2,5DP e ME±3DP. Foi possível distinguir os dois grupos com 89,7% e 75%, 79,5% e 100%, 71,8% e 100%, de sensibilidade e especificidade para os respectivos intervalos. As expressões de CD10 e CD19 em blastos e hematogônias são diferentes, podendo ser de utilidade prática na distinção entre os dois tipos celulares. Resumo em inglês Hematogones are normal immature cells from bone marrow that are responsible for the production of the immune system's B cell lineage. Acute lymphoblastic leukemia (ALL) of precursor B cells represents one type of neoplastic transformation of hematogones. Due to their high similarity, there are risks of erroneous interpretation making the use of complementary diagnostic techniques necessary. CD10 and CD19 antigens are expressed on both types of cells so, the use of other m (mais) onoclonal antibodies is necessary to identify their malignant or benign nature. In an attempt to avoid the use of different antibodies, we investigated possible differences in the expressions of CD10 and CD19 in both cell types. We collected 36 samples of bone marrow from non-neoplastic patients as a control group. The ages of the patients ranged from 0 to 15 years with an average of 5 years. Also 39 samples from patients with ALL of B cells were collected. The ages of these individuals ranged from 0 to 14 years with an average of 6.6 years. We analyzed the differences between the fluorescence in respect to average intensity, standard deviation, variation, inclination and kurtosis coefficients for the two markers. The individual values of each sample were compared with the intervals generated by the values of the control group: mean ± 2SD; mean ± SD and mean ± 3SD. It was possible to distinguish the groups with 89.7% and 75%; 79.5% and 100% and 71.8% e 100% of sensitivity and specificity, respectively for the three intervals. In conclusion, the expression of CD10 and CD19 antigens on blasts and hematogones are significantly different and may be useful in the differentiation of the two cell types.

Scientific Electronic Library Online (Portuguese)

12

Dinâmica da distribuição diamétrica de bracatingais na região metropolitana de Curitiba/ Dinamic of the diameter distribuition of Mimosa Scabrella Benth stands in the metropolitam region of Curitiba

Machado, Sebastião do Amaral; Bartoszeck, Alexandra Consuelo de Plácido e Silva; Figueiredo Filho, Afonso; Oliveira, Edilson Batista de
2006-10-01

Resumo em português O objetivo desta pesquisa foi estudar a dinâmica da distribuição diamétrica com relação à idade, em povoamentos nativos de bracatinga (Mimosa scabrella Benth.) localizados nos municípios da região metropolitana de Curitiba. Os dados utilizados provieram de um experimento de densidades iniciais, delineado em blocos ao acaso, constituído de cinco blocos e quatro tratamentos, perfazendo um total de 20 parcelas de 325 m², as quais foram remedidas às idades aproxim (mais) adas de 4, 5, 6 e 7,5 anos. A densidade inicial sofreu redução para 2.000, 4.000 e 8.000 árvores por hectare quando o povoamento tinha 1 ano de idade. Deixou-se também uma parcela-testemunha em cada bloco, as quais não sofreram nenhum raleamento e tinham em média 25.000 árvores por hectare. Desses cinco blocos, um estava localizado na classe de sítio I, 2 na classe de sítio II e 2 blocos na classe de sítio III. Paralelamente, foram medidos os diâmetros e as alturas de todas as árvores em 124 parcelas temporárias distribuídas nos vários municípios da região metropolitana de Curitiba, representativos de povoamentos de bracatinga sob regime tradicional de cultivo e manejo, cobrindo idades de 3 a 18 anos, e as três classes de sítio. Dentre as funções de densidade de probabilidade testadas por Bartoszeck (2000), a S B de Johnson foi a de melhor desempenho, sendo, portanto, utilizada para a estimativa do número de árvores por classe diamétrica e por hectare e conseqüente construção das curvas de distribuição diamétrica para as inúmeras combinações de idade, sítio e densidades disponíveis. Através da observação visual das curvas sobrepostas, evidenciou-se que essas apresentaram assimetria para a direita e achatamento (curtose), com o aumento da idade. As curvas foram, então, comparadas analiticamente entre si, pelo teste qui-quadrado, o qual revelou a existência de diferenças significativas entre as curvas de distribuição diamétrica em diferentes idades. Resumo em inglês The objective of this research was to study the behavior and dynamic of diameter distribution curves with respect to age, in native stands of bracatinga (Mimosa scabrella Benth) located in the metropolitan region of Curitiba, State of Parana, Brazil. The data came from a trial of densities, arranged in randomized blocks, with 5 blocks and 4 treatments, in a total of 20 plots (325 m²) remeasured at the approximate ages of 4, 5, 6 and 7.5 years. The initial density was red (mais) uced to 2000, 4000, 8000 trees per hectare when the stands were 1 year old. The control plots in every block, without any treatment , had in average,25000 trees per hectare at 1 year old. From these 5 blocks, 1 was located on site class I; 2 on site class II and 2 on site class III. Diameters and heights were also measured in 124 temporary sample plots scatered throughout several counties of the metropolitan region of Curitiba, representative of bracatinga stands under traditional cultivation and management with ages ranging from 3 to 18 years, and the 3 site classes. Among the tested distribuition functions by Bartoszeck (2000), the S B from Johnson was the one with the best performance, being used to estimate the number of trees per diameter class per hectare, and for constructing the diameter distribuition curves for the several possible combinations of age, site and initial density. The evolution of the distribution curves along the ages presented positive skewness and a flat distribution (Kurtosis) with the increasing age. These curves (estimated values) were compared by the chi-square test that indicated significant differences among diameter distribuition curves at different ages.

Scientific Electronic Library Online (Portuguese)

13

Variabilidade espacial de atributos do solo e de fatores de erosão em diferentes pedoformas/ Spatial variability of soil attributes and of erosion factors in different landforms

Sanchez, Rodrigo Baracat; Marques Júnior, José; Souza, Zigomar Menezes De; Pereira, Gener Tadeu; Martins Filho, Marcílio Vieira
2009-01-01

Resumo em português As formas do relevo podem ser indicadores da variação dos atributos do solo, pois essa variabilidade é causada por pequenas alterações do declive que afetam os processos pedogenéticos bem como o transporte e o armazenamento de água no perfil do solo. O trabalho foi desenvolvido em Catanduva (SP), com o objetivo de caracterizar a variabilidade espacial de atributos do solo e fatores de erosão em diferentes pedoformas sob cultivo de cana-de-açúcar. De acordo com o (mais) modelo de Troeh classificou-se as formas do relevo em duas pedoformas, côncava e convexa. Com a utilização de um DGPS levantaram-se as cotas altimétricas, estabelecendo-se uma malha, com intervalos regulares de 50 m, com 270 pontos na pedoforma côncava e 353 pontos na pedoforma convexa, perfazendo um total de 623 pontos, coletados na profundidade de 0,0 - 0,2 m em uma área de 200 ha. Em cada ponto da malha foram determinados os atributos químicos do solo, granulometria, espessura do solo e fatores de erosão locais, tais como erosividade (R), erodibilidade (K), fator topográfico (LS), uso e manejo (C), práticas conservacionistas (P), potencial natural de erosão (PNE), perda de solo (A) e risco de erosão (RE). Os dados foram avaliados primeiramente por uma análise estatística exploratória, calculando-se a média, mediana, variância, coeficiente de variação, coeficiente de assimetria, coeficiente de curtose e teste de normalidade. Posteriormente, a dependência espacial foi verificada por meio da técnica de geoestatística utilizando-se semivariogramas. As maiores perdas de solo, risco de erosão e potencial natural de erosão e menor espessura do solo ocorreram na pedoforma convexa, indicando forte dependência espacial com a forma do relevo. A pedoforma côncava proporcionou maior variabilidade espacial, demonstrando que a forma do relevo condiciona padrões diferenciados de variabilidade. A magnitude da variabilidade dos atributos do solo é mais influenciada pela forma do relevo que pela erosão. A espessura do horizonte A+E integrado com a forma do relevo é um indicador de processos erosivos para classe de Argissolos. Resumo em inglês Relief forms can be used as indicators of variability of soil attributes since this variability is caused by small slope alterations that affect pedogenetic processes such as the transport and storage of water in the soil. This work was developed at Catanduva (SP) and aimed to characterize the spatial variability of soil attributes and erosion factors in different landforms where sugarcane has been cropped. Relief forms were characterized as concave and convex according t (mais) o the model of Troeh. Altimetric measurements were taken and a grid with regular intervals of 50 m was projected on the area. Two hundred seventy grid points were placed in the concave landform and 353 points in the convex landform, totaling 623 points. Soil was sampled at the depth of 0.0-0.2 m in an area of 200 ha. Soil chemical attributes, particle-size distribution, soil thickness and local erosion factors, such as erosivity (R), erodibility (K), relief (LS), use and management (C), conservation practices (P), natural potential of erosion (PNE), soil erosion (A) and erosion risk (RE), were measured. The results were firstly evaluated by exploratory statistical analysis, calculating average, median, variance, variation coefficient, kurtosis coefficient, skew coefficient and normality test. Subsequently, spatial dependence was verified through semivariograms. The greatest soil loss, erosion risk and natural erosion potential and minor soil thickness occurred in the convex landform, indicating strong spatial dependence on the relief form. The concave landform presented greater spatial variability, demonstrating that the relief form conditions differentiated standards of variability. The magnitude of the variability of the soil attributes is more affected by the relief forms than by erosion. The thickness of A+E horizon integrated with relief form is an indicator of erosion processes for Argissolos (argillic-B horizon soils).

Scientific Electronic Library Online (Portuguese)

14

Heterogeneidade dos pontos experimentais de curvas de retenção da água no solo/ Heterogeneity of experimental points of soil-water retention curves

Moraes, S.O.; Libardi, P.L.; Reichardt, K.; Bacchi, O.O.S.
1993-12-01

Resumo em português Em uma área de Terra Roxa Estruturada Latossólica de Piracicaba,SP, foram coletadas 250 amostras de solo com estrutura indeformada à profundidade de 25 cm, segundo um espaçamento regular de 5 m. As amostras foram submetidas às tensões de 5xl0²; 1x10³; 6x10³; 1x10(4) (Funil de Haines) e pressões de 3x10(4); 8x10(4); 3x10(5) e 1,5x10(6) Pa (Câmara de Pressão de Richards) para obtenção das relações entre potencial mátrico e umidade do solo. Assim foram obtid (mais) os duzentos e cinqüenta valores de umidade à base de massa (variável dependente) para cada valor de tensão fixado (variável independente), num total de dois mil resultados experimentais. Utilizaram-se medidas de posição (moda, mediana e média aritmética), variabilidade (amplitude total, amplitude interquartil, desvio padrão, coeficiente de variação, assimetria, curtose e limites de confiança em torno da média aritmética) e número de amostras para estimar a média da umidade a um dado nível de probabilidade, com os seguintes objetivos: a) verificar o quanto as distribuições de probabilidade dos valores de umidade para as diferentes tensões consideradas se afastam da distribuição normal e, consequentemente, investigar qual a melhor medida de posição para representar o conjunto; b) quantificar a variabilidade a cada tensão considerada, identificando as mais problemáticas no estudo da retenção da água no solo, ao lado de uma analise da sensibilidade das medidas, através do cálculo do número necessário de amostras para estimar a média (desconsiderando-se a dependência espacial das amostras). A análise dos resultados obtidos permitiu concluir que as umidades às tensões de 5x10² e 1x10³ Pa apresentaram distribuição com assimetria exagerada e portanto há que se tomar cuidado com o uso da média aritmética como medida de posição. O descarte de amostras-problema, baseado na análise física dos resultados, permitiu, no entanto, melhor aproximação da normalidade para estas tensões, indicando que se deve sempre dar preferência à curva completa de retenção de água no solo e não apenas a dois ou três pontos de interesse imediato, como é feito usualmente. As umidades às várias tensões utilizadas apresentaram baixo coeficiente de variação ( Resumo em inglês In an area of "Terra Roxa Estruturada Latossólica" (Rhodic Kanhapludalf), in Piracicaba, SP, Brazil (20° 42' 30" S, 47° 38' 00" W, 576 m), 250 undisturbed soil samples were collected at 25 cm soil depth, according to a regular grid of spacing of 5 m, resulting a network of 25 Unes and 10 columns. These samples were used to determine 250 soil water retention curves each one with eigth experimental points, using Haines funnels (tensions of 5xl0², 1x10³, 6x10³ an (mais) d 1x10(4) Pa) and Richards pressure chambers (pressures of 3x10(4), 8x10(4),3x10(5) and 1x10(6) Pa), totalizing two thousand values. Position measurements (mode, median and arithmetic mean), variability (total amplitude, interquartil amplitude, standard deviation, coefficient of variation, assimetry, kurtosis and confident limits around the mean) and number of samples to estimate the mean of the soil water content at a specific probability level, were used with the following objectives: a) to verify how close to the normal distribution are the values of soil water content for the different considered tensions and hence, to investigate what is the best position measurement; b) to quantify the variability in each considered tension, identifying the most problematic in the study of soil-water retention and also to analyse the measurement sensibility through the calculation of the necessary number of samples to estimate the mean (assuming a spatial independence of the samples). From the analysis of the obtained results, it could be concluded that the soil-water content values corresponding to tensions of 5x10² and 1x10³ Pa showed very skewed distributions, so that care should be taken in using the arithmetic mean as a position measurement. The neglection of problem-samples, based on the physical analyses of results, allowed a better aproximation to the normal distributions for these tensions, indicating that a complete soil-water retention curve should always be prefered in the place of only two or three points of restricted interest as it is normally done. Soil-water contents corresponding to the several considered tensions showed low coefficients of variation (

Scientific Electronic Library Online (Portuguese)

15

Estimativa do uso de água para fins de projetos de irrigação, em função da evaporação de tanque,em Ribeirão Preto/ Use of pan evaporation for estimating maximum water use for irrigation design in Ribeirão Preto, Brazil

Arruda, Flávio Bussmeyer; Barroso, Luis Fernando Simardi
1984-01-01

Resumo em português Neste trabalho é apresentada uma análise dos resultados de 14 anos de evaporação do tanque enterrado IA-58, para fins de recomendação da necessidade de água em projetos de irrigação. As medições foram feitas no posto meteorológico da Estação Experimental de Ribeirão Preto, São Paulo. Os dados foram agrupados em séries mensais, as quais apresentaram distribuição normal e pequena assimetria. Todas as séries apresentaram valores significativos para curtos (mais) e, mas os meses de abril, maio e junho mostraram forte distribuição leptocúrtica, com acúmulo de freqüência em torno da média. São apresentadas as freqüências mensais de ocorrência da evaporação diária, bem como a comparação entre o nível de probabilidade 75% de ocorrência de evaporação (recomendado pela FAO) e o nível de 50% (comumente usado). Diferenças em até 35%, durante a estação chuvosa, podem ocorrer entre os dois critérios de escolha de evaporação, podendo resultar em um sistema de irrigação subdimensionado. Resumo em inglês Fourteen years of IA-58 sunken pan evaporation data were analysed for predicting irrigation needs. The measurements were carried out in Ribeirão Preto, State of São Paulo. The data were grouped in 12 monthly series which followed the normal distribution with small skewness. All series had significant values for kurtosis, but April, May and June presented strong leptokurtic distributions, i.e., there was a piling up of scores in the center of the distribution. For each m (mais) onth the frequency distribution of mean daily evaporation as well as the comparison between the 75% level of probability of evaporation (recommended by FAO) and the 50% level (commonly used), are presented. Differences of up to 35%, during the rainy season, can occur between the two criteria and might result in improper design of irrigation system.

Scientific Electronic Library Online (Portuguese)